в Twitter", - сказал Стамос. Команда EIP окрестила эти аккаунты "суперраспространителями". Их схема обмена информацией надежно создавала то, что Стамос назвал "графиками хоккейной клюшки", где количество аудитории резко взмывало вверх, как лопасть хоккейной клюшки. "Несколько человек передают информацию, затем [суперраспространитель] ретвитит ее, и все идет по принципу "хоккейной клюшки". В результате горстка влиятельных людей может создать иллюзию широкого распространения проблемы, выбрав несколько твитов и вдохновив миллионы своих подписчиков поделиться ими. Когда информация с сайта внезапно появляется в социальных сетях, это не означает, что она правдива - более того, это может быть признаком кампании влияния.
По мнению Стамоса, чтобы предотвратить дезинформацию о выборах, подобную SharpieGate, общественность должна прервать то, что эксперты называют "цепочкой уничтожения операций влияния". Цепочка уничтожения - это набор шагов или звеньев цепи, которые оперативники проходят по мере эскалации своих операций влияния. Например, в случае с ИРА в Facebook оперативники начали с создания политических объявлений, разжигающих рознь. Это было первое звено. Затем они использовали эти объявления, чтобы направить истинно верующих на страницы ИРА в Facebook, посвященные фальшивым политическим группам. В конечном итоге ИРА активировала аудиторию, которая усиливала ее послания, делясь постами и в итоге лично выходя на акции протеста. В любой момент этой цепочки общественность и платформы социальных сетей могут вмешаться и остановить операции влияния до того, как они заразят общественную сферу. 11 Мы можем закрыть фальшивые страницы или предотвратить распространение дезинформации.
Во многих отношениях система продажи билетов EIP - это микрокосм того, как в демократическом обществе можно прервать цепочку "операция влияния - убийство". Сначала EIP сформировала коалицию групп, представляющих экспертов и общественность, а затем создала для них простой способ обмена информацией. В EIP вошли работники избирательных комиссий, эксперты по кибербезопасности из федерального правительства и ученые, а также такие общественные группы, как AARP, представляющая интересы пенсионеров, и Национальная конференция по гражданству, семидесятилетняя некоммерческая организация, занимающаяся вопросами гражданской активности. Представители всех этих групп провели сезон выборов, создавая сообщения о дезинформации на таких платформах, как Facebook, Twitter, Nextdoor, TikTok и YouTube, а затем отправляя их обученным сотрудникам EIP. Некоторые из них касались большого количества постов с дезинформацией , а другие - только одного. С 3 сентября по 1 ноября группа зарегистрировала 269 заявок. В дни, предшествующие выборам, ситуация накалилась: со 2 по 4 ноября было зарегистрировано 240 новых сообщений. В большинстве случаев речь шла об угрозах насилия, направленных на подавление явки избирателей, в других - о недостоверной информации о том, как голосовать, и ложных утверждениях о легитимности выборов.
Десятки сотрудников EIP анализировали и проверяли каждый билет, совместно с партнерскими группами решая, как бороться с дезинформацией. Иногда они выпускали пропагандистский прогноз погоды, предупреждая платформы социальных сетей, когда обнаруживали конкретную кампанию влияния, такую как SharpieGate. Они также размещали публичные оповещения на сайте EIP. Это разрушало еще одно звено в цепи уничтожения операций влияния, поскольку EIP делилась полученными сведениями с общественностью, чтобы помочь остановить поток ложной информации. Кроме того, EIP поддерживала связь между всеми заинтересованными группами - от работников избирательных участков до групп граждан и компаний, работающих в социальных сетях, - чтобы все были единодушны в том, что является дезинформацией и откуда она исходит.
После инаугурации президента группа подготовила отчет, включающий основные рекомендации, которые помогут компаниям социальных сетей справиться с дезинформацией на выборах в 2024 году и в последующие годы. Надеемся, что этот отчет поможет общественности в следующий раз распознать и прервать цепочки уничтожения операций влияния. EIP предложила федеральному правительству сосредоточиться на дезинформации как части безопасности выборов, разработав стандарты для оповещения СМИ и общественности об активных кампаниях влияния. Платформы социальных сетей должны стать более активными в своих усилиях по маркировке дезинформации, сказали они, используя последовательные сообщения при маркировке дезинформации и недостоверной информации. После того как правительство и компании, работающие в социальных сетях , выработают правила ведения кампаний влияния, они должны будут их придерживаться. Аккаунты, распространяющие дезинформацию, должны быть закрыты, говорится в докладе; если же это невозможно, то посты суперраспространителей можно помещать в песочницу или не позволять им распространяться путем вирусного обмена. Проблема, - признал Стамос с гримасой, - в том, что маркировка, запрет и "песочница" требуют сотрудничества со стороны компаний, управляющих платформами социальных сетей. А большинство платформ не хотят, чтобы кто-то вмешивался в секретный соус, который они используют для алгоритмической генерации контента. Некоторые из них, такие как X (бывший Twitter) и Reddit (принадлежащий Advance Publications, которая также владеет Condé Nast), уже значительно затрудняют работу будущих версий EIP - обе компании закрыли программы обмена данными, которые помогали исследователям оценивать подлинность и происхождение постов.
В конечном итоге, главным выводом из отчета EIP стало то, что линии связи должны быть широко открыты между местными органами власти, работниками избирательных комиссий, промышленностью и группами граждан. "Самое главное - это точная информация от официальных лиц", - сказал Стамос. "Одна из основных задач, которую мы пытались решить, - предупредить государственных служащих о дезинформации, чтобы они могли [рассказать избирателям], что является слухом, а что - правдой. Мы говорили, что кто-то говорит, что избирательные участки закрыты, и, возможно, вам следует разослать сообщение, что они все еще открыты. Это не цензура. Это борьба с ложью, которую говорят люди". К сожалению, суды усложняют совместную работу правительств и платформ социальных сетей по пресечению дезинформации. Гражданам нужна точная информация о том, как голосовать. А это произойдет только в том случае, если правительство будет сотрудничать с социальными сетями, чтобы систематически и открыто очищать их от хаоса дезинформации. Лучший способ сделать это, по мнению EIP, - работать с большим штатом людей, которые могли бы анализировать дезинформацию. Хотя автоматические прогнозы погоды, подобные тому, что создали Ализаде и его команда, полезны, Стамос подчеркнул, что люди должны быть окончательными арбитрами в определении того, что является дезинформацией, а что нет. Они понимают контекст сообщений, которые поставили бы в тупик ИИ.
Тем не менее, появление приложений с искусственным интеллектом, таких как ChatGPT, заставило Стамоса задуматься о том, возможно ли создать целый флот пропагандистов, управляемых одним человеком с помощью стада чат-ботов. "Ответ - возможно, - признал он. Это еще один сценарий пропагандистской катастрофы, к которому нам нужно готовиться. Если ИИ создаст еще более плотный туман дезинформации, человеческие модераторы будут играть еще более важную роль. Они смогут отличить угрозы насилия от демократических дебатов и отделить преднамеренную ложь от честных ошибок.
Медленные средства массовой информации
Нам
